(Actualisé avec commentaires, détails, contexte)
La Commission européenne a déclaré lundi avoir ouvert une enquête sur Grok, le chatbot d'intelligence artificielle (IA) générative du milliardaire Elon Musk, pour production d'images explicites, exposant xAI, l'entreprise exploitant l'outil, à une lourde amende.
L'enquête visera à déterminer si Grok diffuse des contenus illégaux, tels que des images sexualisées manipulées, dans l'Union européenne (UE), en violation avec la législation sur les services numériques (DSA) du bloc, indique la Commission dans un communiqué.
La Commission examinera si X protège les utilisateurs en évaluant et en atténuant correctement les risques liés aux fonctionnalités de Grok.
Grok et le réseau social X sont sous le feu des critiques après la publication sur X d'images explicites générées sur demande des utilisateurs, représentant parfois des mineurs.
"Les deepfakes sexuels non consensuels mettant en scène des femmes et des enfants constituent une forme violente et inacceptable de dégradation", a déclaré Henna Virkkunen, responsable européenne à la technologie, dans un communiqué.
xAI, société d'IA détenue par Elon Musk, a déclaré à la mi-janvier avoir mis en place des modifications afin d'empêcher le compte Grok "d'autoriser la modification d'images de personnes réelles portant des vêtements révélateurs tels que des bikinis".
xAI a également déclaré qu'elle avait empêché les utilisateurs, en fonction de leur emplacement, de générer des images de personnes vêtues de manière provocante dans les "juridictions où cela est illégal".
L'entreprise n'a pas précisé quelles étaient ces juridictions.
Bien que les modifications apportées par xAI aient été bien accueillies, elles ne résolvent pas tous les problèmes et risques systémiques, a déclaré lundi un haut responsable de l'exécutif européen aux journalistes.
La Commission estime que X n'a pas procédé à une évaluation ad hoc lorsqu'elle a déployé les fonctionnalités de Grok en Europe, a ajouté le responsable.
RISQUE D'AMENDE
"Grâce à cette enquête, nous déterminerons si X a respecté ses obligations légales en vertu de la DSA ou s'il a considéré les droits des citoyens européens, y compris ceux des femmes et des enfants, comme des dommages collatéraux de son service", a déclaré Henna Virkkunen.
En vertu de la législation européenne sur les services numériques, les entreprises s'exposent à des amendes pouvant atteindre 6% de leur chiffre d'affaires annuel mondial en cas de violation.
X n'a pas immédiatement répondu à une demande de commentaires envoyée par e-mail lundi.
L'enquête européenne intervient deux semaines après que l'autorité britannique de régulation des médias Ofcom a lancé sa propre enquête à la suite des inquiétudes concernant la création par Grok d'images à caractère sexuel.
Les Philippines et la Malaisie, qui avaient temporairement bloqué Grok, ont rétabli l'accès au chatbot après que xAI a déclaré avoir mis en place des mesures de sécurité supplémentaires. L'Indonésie a aussi bloqué le chatbot.
L'enquête ouverte par la Commission européenne risque de contrarier l'administration du président américain Donald Trump, la répression de l'UE à l'encontre des géants de la technologie ayant suscité des critiques et même des menaces de droits de douane de la part des États-Unis.
La Commission européenne a également prolongé lundi une enquête ouverte en décembre 2023 sur X afin de déterminer si l'entreprise a correctement évalué et atténué tous les risques systémiques liés à ses systèmes de recommandation, y compris l'impact de son passage récemment annoncé à un système basé sur Grok.
Dans un communiqué, l'exécutif européen déclare que X, qui s'est vu infliger une amende de 150 millions d'euros en décembre pour avoir manqué à ses obligations de transparence en vertu de la DSA, pourrait faire l'objet de mesures provisoires en l'absence d'ajustements significatifs de son service.
(Rédigé par Miranda Murray et Sam Tabahriti, avec Foo Yun Chee, version française Etienne Breban, édité par Blandine Hénault et Kate Entringer)
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer